RAG, automatización y memoria
2026-01-11
Cuando ya debemos pasar de la interacción un poco más simple e intentar estabilizar lo que obtenemos desde los LLM’s.
Los LLM’s son probabilísticos, no deterministas.
El mismo prompt → resultados distintos
Sensibles a:
¿Que implica esto?
Aquí ocurre el quiebre conceptual
El prompt:
📌 Analogía potente
Usar solo prompts es como entrenar un modelo “de memoria” cada vez.
Cambio de foco
No buscamos:
Buscamos:
📌 Introduce el concepto
LLM como componente, no como oráculo
Qué problema resuelve
Qué hace RAG
Separa:
El modelo no inventa, recupera
📌 Frase clave
RAG transforma un LLM genérico en un sistema experto contextual.
Recuperada en: https://mindfulmatrix.substack.com/p/build-a-simple-llm-application-with?utm_source=chatgpt.com
Problema:
Automatizar implica
Ejemplo generado dentro del curso
System Instructions
Role: You are a highly intelligent and accurate sentiment analyzer.
Task: Analyze the sentiment of the provided text and categorize it into one of the following classes:
Output Rules
Output Format Constraint
JSON Schema ComplianceSchema:
{
"$schema": "http://json-schema.org/draft-07/schema#",
"type": "object",
"properties": {
"sentiment": {
"type": "string",
"enum": ["Positive", "Neutral", "Negative"]
},
"strength": {
"type": "number",
"minimum": 0,
"maximum": 1,
"description": "Strength score for sentiment in relation to the category"
},
"confidence": {
"type": "number",
"minimum": 0,
"maximum": 1
}
},
"required": ["sentiment", "strength", "confidence"],
"additionalProperties": false
}
Sin automatización, la IA es solo una herramienta; con automatización, es un sistema.
El paso posterior a esto es la construcción de agentes en donde el LLM opera como un orquestador de distintas herramnientas, que pueden ser tan simple como una calculadora o más compleja como otro LLM, entre otras.
Qué NO es memoria
Qué SÍ es memoria
Tipos
Aquí está la tesis completa
Componente Rol Prompt Interfaz humana RAG Contexto confiable Automatización Repetibilidad Memoria Continuidad
Mensaje central:
La estabilidad no viene del prompt, sino del sistema.
🛬 Aterrizaje ejecutivo
Menos riesgo Menos alucinaciones Más confianza Escalabilidad real Auditoría y control
📌 Cambio de mentalidad:
No implementar IA → diseñar sistemas con IA.
El futuro de la IA no es escribir mejores prompts, es diseñar mejores sistemas.
Gandhi, S. (2024, April 7). Building LLM application using RAG: How to query your document using LLM. Mindful Matrix. Retrieved from https://mindfulmatrix.substack.com/p/build-a-simple-llm-application-with
© Sebastián Egaña Santibáñez